home *** CD-ROM | disk | FTP | other *** search
/ IRIX Base Documentation 1998 November / IRIX 6.5.2 Base Documentation November 1998.img / usr / share / catman / p_man / cat3 / f90 / precision.z / precision
Text File  |  1998-10-30  |  2KB  |  68 lines
  1. PRECISION(3I)                                          Last changed: 1-6-98
  2.  
  3.  
  4. NNAAMMEE
  5.      PPRREECCIISSIIOONN - Returns the decimal precision of a number in the real
  6.      number model
  7.  
  8. SSYYNNOOPPSSIISS
  9.      PPRREECCIISSIIOONN (([XX==]_x))
  10.  
  11. IIMMPPLLEEMMEENNTTAATTIIOONN
  12.      UNICOS, UNICOS/mk, and IRIX systems
  13.  
  14. SSTTAANNDDAARRDDSS
  15.      Fortran 90
  16.  
  17. DDEESSCCRRIIPPTTIIOONN
  18.      The PPRREECCIISSIIOONN intrinsic function returns the decimal precision of a
  19.      number in the real number model.  The real number model is described
  20.      in the MMOODDEELLSS(3I) man page.  This function accepts the following
  21.      argument:
  22.  
  23.      _x    Must be of type real or complex.  It may be scalar or array
  24.           valued.
  25.  
  26.      PPRREECCIISSIIOONN is an inquiry function.  The name of this intrinsic cannot
  27.      be passed as an argument.
  28.  
  29. RREETTUURRNN VVAALLUUEESS
  30.      The result is a default integer scalar.  The result has the value
  31.      IINNTT((_p-1)*LLOOGG1100(_b))+_k, where _b and _p are as defined in the model and
  32.      where _k is 1 if _b is an integral power of 10 and 0 otherwise.
  33.  
  34. EEXXAAMMPPLLEESS
  35.      On UNICOS systems, except for CRAY T90 systems that support IEEE
  36.      floating-point arithmetic, PPRREECCIISSIIOONN((XX)) has the value 13 for
  37.      RREEAALL((KKIINNDD==88)).
  38.  
  39.      On CRAY T90 systems that support IEEE floating-point arithmetic,
  40.      PPRREECCIISSIIOONN((XX)) has the following values:
  41.  
  42.      * 6 for RREEAALL((KKIINNDD==44)) XX
  43.  
  44.      * 15 for RREEAALL((KKIINNDD==88)) XX
  45.  
  46.      * 33 for RREEAALL((KKIINNDD==1166)) XX
  47.  
  48.      On IRIX systems, PPRREECCIISSIIOONN((XX)) has the following values:
  49.  
  50.      * 6 for RREEAALL((KKIINNDD==44)) XX
  51.  
  52.      * 15 for RREEAALL((KKIINNDD==88)) XX
  53.  
  54.      * 31 for RREEAALL((KKIINNDD==1166)) XX
  55.  
  56.      On UNICOS/mk systems, PPRREECCIISSIIOONN((XX)) has the following values:
  57.  
  58.      * 6 for RREEAALL((KKIINNDD==44)) XX
  59.  
  60.      * 15 for RREEAALL((KKIINNDD==88)) XX
  61.  
  62. SSEEEE AALLSSOO
  63.      MMOODDEELLSS(3I)
  64.  
  65.      _I_n_t_r_i_n_s_i_c _P_r_o_c_e_d_u_r_e_s _R_e_f_e_r_e_n_c_e _M_a_n_u_a_l, publication SR-2138, for the
  66.      printed version of this man page.
  67.  
  68.